งานวิจัย
OpenAI เปิดวิธี "Deployment Simulation" — รีเพลย์บทสนทนาจริงเพื่อทำนายพฤติกรรมโมเดลก่อนปล่อย
OpenAI เผยแพร่งานวิจัยวันที่ 16 มิถุนายน เสนอวิธีประเมินความเสี่ยงก่อนปล่อยโมเดลแบบใหม่ชื่อ Deployment Simulation ที่นำบทสนทนาผู้ใช้จริง (de-identified) มารีเพลย์ผ่านโมเดลตัวใหม่ก่อนปล่อย เพื่อจับ behavioral drift, misalignment และ reward hacking โดยทดสอบบนบทสนทนาราว 1.3 ล้านชุด ได้ median error 1.5 เท่า
· อ่าน 5 นาที